即时 Agent 记忆:运行时按查询构建上下文的 JAM 框架
🧭 Agent 记忆 · 运行时上下文构建 ★ 深度解读
Beijing Academy of Artificial Intelligence · Peking University · Hong Kong Polytechnic University
JAM 将 Agent 记忆从请求无关预压缩转为运行时按查询构建上下文,结合分层工作区与可训练研究员策略
📌 工作参考价值(4 点)
- 对推荐 Agent 的用户长期行为/会话历史,不要只存预生成摘要;学 JAM 保留原始 session,并用轻量 memo/README 做导航,在线时用小模型按 query 迭代 open/search/browse,保留跨 session 细粒度依赖。
- 工程上采用 hybrid BM25 + dense retrieval 提供候选;离线建库一次性成本可接受,在线 13.81s/query 质量反超 58.08s 的 MemAgent;测试期可增加 action budget 换取 F1,budget 是上限而非固定成本,多数 query 早停。
- 训练研究员时用 verified-trajectory SFT 过滤“浅搜即答”的捷径行为,再用 GRPO 优化,奖励用 source recall(召回 gold supporting sessions);训练时注入 hint 稳定多步探索,推理时移除,业务可直接复用该奖励设计。
- Memory-Gym 的四阶段合成 pipeline(anchor discovery → task-dependent expansion → instantiation → validation)可改造用于生成电商场景训练样本:单跳定位、多跳证据连接、多 session 聚合,覆盖用户行为轨迹与商品知识。
CiteGuard-RAG:以验证为中心的证据支撑问答系统
🧭 验证中心RAG架构
Department of Computer Science, Western Michigan University
集成混合检索、引用约束生成、句级grounding验证与单次重生成,在最终交付前决定接受、拒绝或重生成答案
📌 工作参考价值(4 点)
- 在电商客服/商品问答中,可将验证作为独立运行时组件放在检索和最终回答之间,对生成答案做句级引用校验,避免给出无依据的售后政策或参数。
- 混合语义-词汇检索(受控数据集检索准确率99.1%)值得借鉴:商品知识库/店铺政策QA可结合BM25和向量检索,提升证据命中率。
- 单次重生成机制:验证失败时先尝试基于检索证据重新生成,若仍不合格则拒绝回答;适合价格、退换货规则等高合规风险场景,防止误导用户。
- 引用约束生成要求逐句标注来源,便于线上审核和用户信任;可用于广告文案合规检查,确保每句声称都有依据。
Top-K 不是混合检索的预算
🧭 RAG 混合检索预算优化
Southwest Jiaotong University
DiBud 以访问预算为输入,增量认证 RRF 排名精确前缀,用更少访问量保留混合检索质量
📌 工作参考价值(4 点)
- 将访问预算作为第一输入替代固定 Top-K 截断:在电商搜索/推荐混合召回中,向量与倒排融合常固定取前 L 条,但长尾查询成本波动大。可借鉴 DiBud,对每次请求设定硬访问预算(如最多读取多少候选),通过选择性访问动态决定每个通道的读取深度,保持延迟稳定。
- 增量认证与预算停止:DiBud 不会一次性计算完整融合,而是逐步输出已确定顺序的 RRF 前缀,预算耗尽即停止。推荐系统可据此实现流式/增量融合,优先保证已认证 top 项的正确性,并设置强制停止点,降低线上最坏延迟。
- 质量保留校准:用 held-out 查询校准预算参数,在满足 95% nDCG 保留的前提下大幅减少访问。可以按不同流量桶/查询类型离线校准预算,线上按查询特征动态选择预算,替代全局统一 Top-K,实现成本与质量的最优折中。
- 长尾成本意识:论文显示完成精确 Top-20 的访问分布长尾,少量高成本查询拖累系统。应监控访问成本分布,对异常高成本查询设置兜底预算。
HybridRAG-BN:面向孟加拉语KBQA的检索增强与微调验证框架
🧭 低资源语言KBQA · 混合检索+验证精炼
Chittagong University of Engineering & Technology
混合稀疏/稠密检索与LoRA验证、后处理兜底的Bangla KBQA方案,竞赛双榜F1最高0.729
📌 工作参考价值(4 点)
- 在跨境电商/多语言客服KBQA中可复用“BM25+BGE-M3”混合召回:BM25卡精确词,BGE-M3补跨语言语义,减轻低资源语言形态变化对召回的冲击;工程上可离线建倒排+向量双索引。
- 生成器+LoRA验证器双模型范式:先用大模型生成候选答案,再用同一底座LoRA微调做验证与精炼,可嵌入客服回复、商品问答、Agent工具调用结果的质量把关环节,降低不可靠输出。
- 兜底后处理:对低置信度或未解析case,用fallback规则+外部搜索(如DuckDuckGo)二次检索,适合商品知识库覆盖不全时的实时兜底,避免Agent空答或乱答。
- GGUF量化部署Gemma-4-31B,在有限GPU下也能跑生成+验证两个模型;低资源业务可借鉴量化+LoRA节省成本。
无需固定截断深度的精确自适应混合检索
🧭 自适应混合检索 · 精确Top-K无截断
Southwest Jiaotong University
提出可按需继续的精确稠密-稀疏融合方法,保证完全列表Top-K一致且避免固定截断,平均加速23-30倍
📌 工作参考价值(4 点)
- 多路召回免截断融合:电商/推荐场景中,embedding 召回与倒排召回融合时,可借鉴 EAHR 的按需增量获取机制,不再硬性固定每条通道的截断数,避免截断过小丢失关键文档或过大引入冗余计算。
- 可恢复的精确排序:使用 PVS 量化向量索引 + PBM 块最大索引,支持随时恢复并继续拉取下一个未读高分项,工程上可设计成流式/游标式接口,方便在多路融合中按需拉取。
- 边界裁剪节省算力:计算未读候选的融合分数上界,仅当上界可能挤入当前 Top-K 时才继续请求,多数 easy query 可提前终止,大幅降低平均延迟(实测加速 23-30 倍),同时保证融合结果与完整列表完全一致。
- 无需依赖历史查询调参:实验证明固定深度无法从历史查询可靠迁移,EAHR 的自适应策略省去了繁重的离线参数调优,更适合动态语料与长尾查询。
修辞角色感知的领域RAG:面向印度最高法院判决的法律问答
🧭 领域增强RAG · 修辞角色分块
National Institute of Technology, Tiruchirappalli · National Institute of Karnataka, Surathkal
提出修辞角色分块、混合检索与查询改写的领域RAG框架,提升法律多轮问答的上下文召回与答案相关性
📌 工作参考价值(4 点)
- 修辞角色分块可迁移至电商内容理解:对商品标题、详情、评论按修辞角色(属性、评价、场景)分块,提升检索与生成相关性。
- 多轮查询改写增强对话Agent:利用历史与意图分类进行查询改写,可解决电商导购、客服场景中的指代消解与意图漂移。
- 结构感知提升专业领域检索:提取文档中的实体(如法官姓名)类似电商中的品牌、规格,可作为稀疏特征加入检索或重排序。
- 混合检索与交叉编码器重排序:在商品搜索或推荐Agent中直接复用,融合稠密与稀疏检索信号,再用交叉编码器精排,成本可控且效果提升明显。
因果情节记忆:基于反馈的代理修复
🧭 Agent 反馈驱动修复 · 因果记忆
Mohamed bin Zayed University of Artificial Intelligence · Ho Chi Minh City University of Technology (HCMUT)
利用双极性因果记忆与类型条件检索,使冻结LLM在修复时复用过往成功修正,提升Text-to-SQL准确率
📌 工作参考价值(4 点)
- 电商对话代理或搜索助手可将每次修复后的最终成功方案存入正例记忆,同时记录曾尝试但无效的修改方向作为负例,后续相似问题直接检索复用,避免重复推理。
- 在推荐系统的生成式修复(如商品推荐查询改写、筛选条件修正)中,可引入粗粒度失败类型分类器(如“意图理解错误”、“约束冲突”),据此条件化检索历史案例,提升修正速度与准确率。
- 采用混合检索(BM25词汇匹配+稠密向量相似)来召回相关历史经验,既能捕捉表层词重叠,又能挖掘语义相近的跨场景模式,适用于电商Agent的案例库构建。
- 无需模型更新,仅靠记忆即插即用,适合快速迭代的线上代理系统,特别适合在推荐对话、售后引导等需持续从错误中学习的场景部署。
将 Agentic Search 引入地球观测数据发现
🧭 Agent 驱动的搜索与重排序 ★ 深度解读
University of Maryland, College Park · University of Florida
利用论文-数据集引用图构建超大评估集,并通过 NN-SSC 域修正+BM25 融合及 Agentic 工具调用将检索精确率提升超 5 倍
📌 工作参考价值(4 点)
- 借鉴引用图谱构造评估集:如将用户实际购买/点击的物品作为 silver label,构建百万级 query-item 对,低成本获得高质量的离线评测数据。
- NN-SSC 轻量域适应:冻结通用 Encoder,仅训练一个 3 层 MLP 头(46 万参数)修正域偏移,可快速部署到任何已有向量召回服务上,成本极低。
- 混合检索的解析融合权重:利用训练集上各检索支路的性能之比(π_n/(π_ℓ+π_n))自动计算融合系数 α,无需网格搜索,直接用于 BM25+向量分数的凸组合。
- Agentic 重排序提升 GMV:在候选集确定后,让 LLM 自主调用商品百科、用户问答、外部网页等工具补充上下文,可有效解决长尾 query 和歧义商品的排序问题,尤其适合高客单价决策场景。
GraphRAG 是否必要?RAG 方案对比与上下文优化
🧭 RAG 方案对比与上下文优化
Generative AI Innovation Center, Amazon Web Services (AWS) · Cisco Systems, Inc.
系统对比 9 种 RAG 场景并提出上下文工程方法,token 用量降低 19%-53%,揭示检索-生成差距
📌 工作参考价值(4 点)
- 上下文工程技巧:提出的混合文本-图检索与 Agent 循环设计可复用,尤其适合电商知识库问答中的长上下文管理,避免 KV cache 膨胀,直接用于客服或导购 Agent 的 memory 控制。
- 检索-生成差距洞察:业务上不要盲目叠加复杂检索(如图谱扩展),应先评估生成端真实增益;在推荐理由生成、商品属性问答等场景中,用生成质量(而非召回率)作为最终优化指标。
- GraphRAG 适用边界:半结构化知识(如商品图谱、品牌关系)用 GraphRAG 能提升一致性,但需注意短期用户交互场景可能用轻量 Modular RAG 更经济。建议按查询复杂度分流:简单事实查询走基础 RAG,多跳推理走 Agentic-GraphRAG。
- Agent 与图谱集成模式:在电商智能导购中,可将商品数据构建为预定义 KG,通过 Agent 多轮规划调用图谱查询与文本检索,实现精准商品推荐与属性解释,文中 Agent-Graph 集成方案可直接参考。
面向长文档 RAG 的不确定性感知多粒度混合检索框架
🧭 检索增强生成 · 多粒度混合检索与不确定性估计 ★ 深度解读
Purdue University
提出无需训练的 UMG-RAG,利用检索得分分布的熵动态估计各检索源与粒度的置信度,并通过父块提升生成连贯的紧凑上下文。
📌 工作参考价值(4 点)
- 多路召回动态融合:借鉴基于熵的置信度估计,电商搜索/推荐的多路召回(如语义向量 + BM25)可以不再使用固定权重融合,而是根据查询的得分分布“锐度”自适应分配权重,提升不同类型 query 的召回质量。
- 细粒度定位 + 父块返回:在商品描述或用户评价的长文本检索中,可用句子级精准召回证据,再通过 parent promotion 返回段落级上下文,保持生成理由或答案的局部连贯性,同时用重叠去重避免冗余。
- 零训练即插即用:整个方法不修改现有检索器和生成器,只做检索后处理,可以极低成本集成到现有 RAG 管线中,适合快速验证和上线。
- 长度惩罚控制上下文体积:通过长度惩罚(除以 sqrt(token 数))在最终排序中倾向紧凑 chunk,能缓解大模型“lost-in-the-middle”问题,减少生成延迟和内存占用,对实时性要求高的推荐文案生成场景尤其有用。
面向半结构化知识库的计划引导图检索与自适应融合重排序框架
🧭 半结构化知识库检索 · 图与文本融合
University of Michigan
提出三阶段GRASP框架,通过计划引导图检索、条件融合稠密检索和重排序,大幅提升半结构化知识库检索性能。
📌 工作参考价值(4 点)
- 电商搜索场景可直接复用:Amazon 产品搜索属于典型的半结构化知识库,查询常同时包含自由文本与结构化约束(如品牌、类别),GRASP 将查询解析为图遍历计划 + 文本条件,再融合稠密检索与重排序,可直接迁移到电商搜索系统,提升带约束查询的 Hit@1。
- 图计划生成模块的低成本实现:GRASP 使用 LLM 将自然语言查询转换为逻辑图计划,但不依赖 LLM 在线推理,而是将计划离线生成后作为融合的先验,这在工程上可以预先计算常见查询模式,减少线上延迟与成本。
- 自适应融合与重排序的架构设计:利用计划条件加权融合图分支与文本分支的候选集,再通过微调重排序模型做最终排位,该模块化设计可独立应用于现有文本-图混合检索系统,只需注入计划向量即可控制融合权重,无需端到端重训。
- 重排序器微调的数据构造技巧:GRASP 用推理时暴露的候选分布合成困难负样本,以微调重排序模型,这种基于检索结果的负采样策略对提升排序准确性很有效,可直接借鉴到推荐/广告的排序模型训练中。